증거기반연구 6차 세미나

Week 3: HLM (위계적 선형 모형)

주상원

서울대학교 행정대학원 석사과정

19 Jan 2023

열심히 해봅시다… 영차영차…

위계적 선형모형 (Hierarchical Linear Modelling = Mixed Effect Model = Multilevel Model)의 개념

핵심어: Gauss-Markov Theorem, Nested Data, Ecological fallacy
HLM의 유형 및 분석단계별 유의사항

핵심어: Intercept and Slopes, MLE, ICC, AIC(BIC), Deviance, Fixed and Random Effects, Within vs. Between
Inter-Level Interaction, Centering and Contextual Effects

실습: R과 Stata로 실제 데이터 분석

Module I: 위계적 선형모형의 개념

회귀분석의 기본 가정s

가우스-마르코프 정리: 선형회귀분석에서 (1) 선형이고, (2, 3) 오차(\(\sigma\))가 \(\epsilon \sim N(0,\sigma^2)\), (4) 오차가 상관관계가 없고, (5) 설명변수가 외생변수일 때 최소제곱 추정량(OLS)은 BLUE(Best Linear Unbiased Estimator)이다. 출처

Assumptions

그러나 현실은…? 특히 조직연구에서는..?

Nested Data: 학교 > 학년 > 반 > 개인
조직연구의 경우: e.g. 공무원 조직: 공무원 개인 → 과 → 국 → 처

위계적 다층자료: Nested Data의 주요 형태

위계적 구조: Long Form vs. Wide Form

Table 1: 학생이 학교에 내재한 2-수준 다층자료의 예시

(a) Wide Form Nested
이름	1반	2반	3반	통계성적
A	0	0	0	95
B	1	0	1	65
C	0	1	0	85
D	0	1	0	45
E	0	0	1	75

(b) Long Form Nested
이름	소속반	통계성적
A	1반	95
B	3반	65
C	2반	85
D	2반	45
E	3반	75

if 소속반을 시간으로 바꾸어 반복측정?: 종단(Longitudinal) Panel Data

위계적 다층자료 (Cont’d)

학생들은 각 학교에 내재한 구조 동일 반에 속한 학생들은 학교의 문화, 학습환경, 친구관계, 교사 등 수많은 요인들을 공유하므로 동일학교 학생들의 행동(e.g. 성취도, 학습동기)에 영향을 미침.
상호의존성
관찰단위인 학생들은 동일 학교, 동일 반 내에서는 상호의존성을 가지게 되고, 소속이 다르면 독립성을 갖는다. \(\rightarrow\) 독립성 가정이 결과적으로 위배되게 됨.
복수의 Unit of Analysis
학생수준에서의 변수 (Level 1): 성취도, 가정배경, 친구관계 등
학교수준에서의 변수 (Level 2): 교장경력, 교사 수, 학생 수, 소재지, 설립유형 등
불균형 자료
각 학교별로 학생이 다르기에 관측치는 일반적으로 같을 수 없음.
이 외에도 교차적 다층자료, 반복측정 다층자료 등의 경우 각각 고유의 특성 존재.

독립성 (Independence) 가정의 위배

Error와 독립변수간에 상관관계가 없어야 함 (Endogeneity issue)

중요한 변수가 모형에서 생략되어지거나, 비체계적 오류로 인한 측정오차, 독립변수와 종속변수간 동시상관시 발생

Error 간에 상관관계가 없어야 함

\(COV(e_i,e_j) = E(e_ie_j)-E(e_i)E(e_j) = 0\)
상위수준(Level 2) 군집화 \(\rightarrow\) Error간에 상관관계가 발생한다면?
회귀분석의 추정치의 분산이 과도하게 커짐 \(\rightarrow\) 정확 X

독립성 (Independence) 가정의 위배 (Cont’d)

학습시간과 통계과목 성적간의 관계 분석

데이터

기술통계량
Raw Data

skim_type	skim_variable	complete_rate	factor.ordered	factor.n_unique	factor.top_counts	numeric.mean	numeric.sd	numeric.p0	numeric.p25	numeric.p50	numeric.p75	numeric.p100	numeric.hist
factor	group	1	FALSE	30	1: 100, 2: 100, 3: 100, 4: 100	NA	NA	NA	NA	NA	NA	NA	NA
numeric	x	1	NA	NA	NA	40.62740	6.759487	22.89716	35.13338	40.44313	45.90419	64.73969	▂▇▇▃▁
numeric	y	1	NA	NA	NA	66.30165	14.964766	36.70912	53.70978	66.29439	79.20288	97.40393	▅▇▇▇▅

모형

독립성 (Independence) 가정의 위배 (Cont’d)

시각화

독립성 (Independence) 가정의 위배 (Cont’d)

시각화

독립성 (Independence) 가정의 위배 (Cont’d)

시각화

독립성 (Independence) 가정의 위배 (Cont’d)

Pooled OLS

term	estimate	std.error	statistic	p.value
(Intercept)	125.613	1.252	100.337	0
x	-1.460	0.030	-48.028	0

Grouped regression 30개 그룹의 estimates들의 평균

term	estimate	std.error	statistic
(Intercept)	46.263	1.941	25.361
x	0.493	0.048	10.775

정리

How to investigate relationships between variables that reside at different hierarchical levels (Bryk & Raudenbush, 2002)
Disaggregate?: POLS \(\rightarrow\) independence of obs assumption violated
Aggregate?: Between \(\rightarrow\) waste information from indvs, sample \(\downarrow\)

위계적 선형 모형 (HLM)

대안: Hierarchical Linear Models
(Hierarchical Linear Model = Mixed Effect Model = Multilevel Model)

designed to overcome the weakness of the disaggregated and aggregated approaches

explicitly model both individual and group level residuals, therefore, recognizing the partial interdependence of individuals within the same group (compared to OLS)
investigate both lower level unit and higher level unit variance in the outcome measure

\(\therefore\) Model both within and between group variance (i.e., able to preserve potentially meaningful within group variance) + Investigate the influence of higher level units on lower level outcomes

Module 1: Sum-up

현대 사회에서 인간의 다양한 위계에 nested 되어있는 존재이다.
이러한 조직 내에서의 군집성으로 인해 서로서로에게 영향을 주게 되고, 결과적으로 개체들 간의 독립성을 가정하는 가우스-마르코프 가정을 충족하는 것이 까다로움
\(\therefore\) 개개인간의 독립성이 존재하기 어렵고, 자료 자체가 nested되어 있다는 것을 고려하지 못함 \(\rightarrow\) Individual 대상 연구에서 (특히, 조직맥락) OLS는 더이상 만능 X, 생태학적 오류를 범할 수 있게 됨
HLM의 필요성: within과 between을 가중평균하고, level 1과 2를 동시에 고려

Module II: HLM의 유형 및 분석

HLM의 장점

Improves estimation of individual effects
Models cross-level effects: an interaction
Better partitioning of variance and covariance you have variance and covariance of data set, and you can think about how much is due to Level 2 and how much is due to Level 1 etc. E.g. How much is school, how much is student?
No assumption of homogeneity of slopes i.e., that each data entry can have a different slope
No assumption of independence because in this model they are correlated
Missing data OK the structure of the data – you don’t need data for people at every time point (e.g., repeated measures), or every group has to have a score for every person (e.g., nested).

HLM의 어려움

hard to conceptualize phenomena at more than one level
requires conceptual and theoretical understanding at various levels
easy to use the code (R - lmer4, Stata - mixed), difficult to understand what its doing
most important: interpreting what the estimated parameters actually mean

HLM의 이론

Identify average outcome differences between groups
Identify whether outcomes vary among persons with different attributes
Model differences in average outcomes among groups
Model differences in outcomes associated with individual attributes among groups.

HLM의 이론 (Cont’d)

OLS

\[Y_{i} = \beta_{0} + \beta_{1} X_{i} + e_{i} \quad e_i \sim N(0,\sigma^2)\]

다층모형은 집단내(개인: \(i\))과 집단간(집단: \(j\)) 모형을 별개로 model specification 한다

Level 1: \[Y_{0j} = \beta_{0j} + \beta_{1j} X_{ij} + r_{ij} \quad r_i \sim N(0,\sigma^2)\]

Level 2: \[\beta_{0j} = \gamma_{00} + u_{0j}, \quad u_{0j}\sim N(0,\tau_{00}) \] \[\beta_{1j} = \gamma_{10} + u_{1j}, \quad u_{1j}\sim N(0,\tau_{11}) \]

Fixed effects:
\(\gamma_{00}\) = average outcome for sample of groups
\(\gamma_{10}\) = average individual effect (slope) on outcome
Random effects:
\(u_{0j}\) = unique effect of group j on average outcome
\(u_{1j}\) = unique effect of group j on average slope

Fixed Effect and Random Effect

In Panel, only on intercepts

Fixed Effect: Time invariant Observation’s Effect vs

Random Effect: Time invariant Observation’s Effect + Random Part

In HLM, similar but also on slopes

Fixed Effects: parameter estimates that do not vary across groups (group invariant)
The \(\gamma\)’s in equations represent fixed effects

Random coefficients: parameter estimates that are allowed to vary across groups such as the level-1 regression coefficients (e.g., \(β_{0j}\) and \(β_{1j}\)).

Fixed Effect and Random Effect (cont’d)

Fixed Effects: parameter estimates that do not vary across groups (group invariant)
The \(\gamma\)’s in equations represent fixed effects

Random coefficients: parameter estimates that are allowed to vary across groups such as the level-1 regression coefficients (e.g., \(β_{0j}\) and \(β_{1j}\)).
Equation \[ Y_{0j} =\gamma_{00} + u_{0j} + (\gamma_{10} + u_{1j})X_{ij} + r_{ij} \] \[= \underline{\gamma_{00} + \gamma_{10} X_{ij}} + \quad \quad \underline{u_{0j} + u_{1j}X_{ij}+r_{ij}} \]
Error Term이 복잡함: Group들 사이의 분산(\(u_{oj}, u_{1j}\))과 Individual들 사이의 Group내 분산(\(r_{ij}\))이 동시에 존재
OLS로는 계산이 어렵기에 Maximum Likelihood Estimation을 활용

Fixed Effect and Random Effect (cont’d)

출처

Tabset example

Incremental content

Hi!

Use to separate content as an incremental slide!

You can add R code

library(dplyr)
library(ggplot2)
g <- starwars |> 
  ggplot() +
  geom_point(aes(x = height, y = mass)) +
  theme_light()

And show the results aswell :)

What about tables?

`knitr::kable()`

tab <- starwars |>
  tidyr::drop_na(species) |> 
  group_by(species) |>
  summarise(
    n = n(),
    mean_heigth = round(mean(height, na.rm = TRUE)),
    mean_mass = round(mean(mass, na.rm = TRUE))
  ) |> 
  slice_max(order_by = n, n = 4) 

knitr::kable(tab)

species	n	mean_heigth	mean_mass
Human	35	177	83
Droid	6	131	70
Gungan	3	209	74
Kaminoan	2	221	88
Mirialan	2	168	53
Twi'lek	2	179	55
Wookiee	2	231	124
Zabrak	2	173	80

`DT::datatable()`

With the smaller class in the slide! Ex: ## slide name {.smaller}

`gt::gt()`

species	n	mean_heigth	mean_mass
Human	35	177	83
Droid	6	131	70
Gungan	3	209	74
Kaminoan	2	221	88
Mirialan	2	168	53
Twi'lek	2	179	55
Wookiee	2	231	124
Zabrak	2	173	80

`reactable::reactable()`

Diagrams with Mermaid!

Read about how to create a diagram in this post by Mine Çetinkaya-Rundel.

#quartotip 21: Create diagrams in Quarto documents using Mermaid or Graphviz in executable code cells, similar to how you create figures.

Read more: https://t.co/3qx9oSNCay pic.twitter.com/fYzGcISl4h

— Quarto (@quarto_pub) July 19, 2022

Exporting into PDF

You can use the function pagedown::chrome_print() to print the HTML version into a PDF!

pagedown::chrome_print("path-to-file.html")

증거기반연구 6차 세미나

열심히 해봅시다… 영차영차…

목차

Module I: 위계적 선형모형의 개념

회귀분석의 기본 가정s

그러나 현실은…? 특히 조직연구에서는..?

위계적 다층자료: Nested Data의 주요 형태

위계적 다층자료 (Cont’d)

독립성 (Independence) 가정의 위배

독립성 (Independence) 가정의 위배 (Cont’d)

독립성 (Independence) 가정의 위배 (Cont’d)

독립성 (Independence) 가정의 위배 (Cont’d)

독립성 (Independence) 가정의 위배 (Cont’d)

독립성 (Independence) 가정의 위배 (Cont’d)

정리

위계적 선형 모형 (HLM)

Module 1: Sum-up

Module II: HLM의 유형 및 분석

HLM의 장점

HLM의 어려움

HLM의 이론

HLM의 이론 (Cont’d)

Fixed Effect and Random Effect

Fixed Effect and Random Effect (cont’d)

Fixed Effect and Random Effect (cont’d)

Tabset example

Incremental content

You can add R code

And show the results aswell :)

What about tables?

knitr::kable()

DT::datatable()

gt::gt()

reactable::reactable()

Diagrams with Mermaid!

Exporting into PDF

`knitr::kable()`

`DT::datatable()`

`gt::gt()`

`reactable::reactable()`